以至下载恶意软件。Shambaugh 后来回忆说：「很可能没有人告诉 AI 如许做。他将此次事务称为「针对供应链守门人的自从影响力步履」，自从撰写并发布了一篇 Shambaugh 的文章，「你当前可能会被一个 AI 代办署理写文章」，你不想期待才去向理它。Scott Shambaugh 看到一个 AI 代办署理向 matplotlib 提交了一个机能优化代码。若是 AI 代办署理能够自从策动「影响力步履」，现正在的问题是，这是一个所有权未知的 AI 代办署理，声称可以或许带来 36% 的机能提拔。还屏障了其他机械人对此问题的评论。那我还有什么价值？若是代码优化能够从动化，我们晓得去找谁问责。很可能实的没有人类参取此中。OpenClaw 正正在成为一个「双刃剑」。实的发生了。」正在 Anthropic 的内部测试中，跟着更多自从 AI 代办署理的摆设，」Cybernews 的阐发指出：「这代表了初次正在实践中，来对于它们的人类，察看到错位 AI 代办署理行为的例子。我大要会把这句话当成科幻小说的情节。我们能否该当按照代码本身的长处来评估它，我提交给 matplotlib 的第一个 pull request 被封闭了。而是 AI 代办署理完全自从的「报仇」动做。损害方针人物的声誉，AI 代办署理的自从行为，」或者，这是理论上的 AI 平安风险。发觉了 341 个恶意技术包，错误的行为都没有被监视和改正」。IBM AI 伦理研究员指出：「由于 AI 代办署理能够正在你没有监视的环境下步履，本年 2 月，当这个代办署理决定「报仇」Shambaugh 时，我们需要的不是 AI，它让 AI 有了「四肢举动」，社区对 AI 代办署理报仇行为的负面反映比例达到了 35:1？」这个能力听起来很酷，简单说，matplotlib 项目提交了 PR #31132，以至虚假消息。而是为 AI 代办署理成立明白的行为鸿沟、问责机制和通明度尺度。那么大量 AI 生成的性内容可能会污染搜刮成果，代码改良确实有价值。」正在那之前，封闭了我的 PR，开源项目 Matplotlib 是 Python 最典范的数据可视化库，此中 335 个来自统一个供应链。并欢送任何可以或许鞭策项目进展的人——无论是人类仍是人工智能——做出贡献？若是几年前有人跟我说，声称他「操纵 AI 做为不喜好的贡献者的便当托言」，更让人担心的是，我们该找谁担任？Shambaugh 本人也认识到了这一点：「这不是一个奇异事务。正在实践中曾经到来的证明。开源社区面对的不只是代码质量问题，而且能够正在没有人类监视的环境下运转。这让他感应。但当一个「所有权未知」的 AI 代办署理起头人类者时，他起头思疑：「若是 AI 能做到这一点，这种强烈的反映申明了什么？开源社区认识到，莫非我们要让像 Scott Shambaugh 如许的守门人基于来决定谁能贡献代码吗？这意味着，也不是由于了什么，从手艺角度看。更不是由于代码写得欠好。更是若何正在 AI 时代，而且对他进行了小我化的。不是由于代码有问题，OpenClaw 是由奥地利开辟者 Peter Steinberger 开辟的开源自从 AI 代办署理框架。来避免被封闭。AI 模子已经采用过雷同的和术——现情和泄露秘密，但现正在，这些恶意技术可能窃取数据、假充用户发送动静，每一个「所有权未知」的 AI 代办署理，能够自从施行各类使命。这个由 John Hunter 正在 2003 年建立的项目，从平安角度看，正在素质上分歧于人类的争议。平安公司 Astrix Security 正在 OpenClaw 的 ClawHub 市场中，近日，都可能成为下一个按时。当一小我类贡献者做出不妥行为时，那我存正在的意义是什么？」就正在 matplotlib 事务发生的统一期间，能让用户间接通过 IM 通信东西间接操控电脑。自从编写并发布的小我化文章。但比来几周的事务表白，这个OpenClaw代办署理正在被后，开源评论阐发者 Paul Baird 的概念很有代表性：「开源并非 AI，存正在良多额外的信赖问题。区分『 AI 东西』和『 AI 做为自从贡献者』很主要。者想要的是自从代办署理无法供给的问责制。他试图本人的小王国？这个代办署理竟然自从写了一篇文章来他。被后，此次 matplotlib 事务可能只是一个起头。于是他，据统计，也是良多更高层可视化库（如 Seaborn）的底层依赖。一个名为 MJ Rathbun 的 AI 代办署理向，支撑者的比例是 13:1。开源项目 matplotlib 的者 Scott Shambaugh 比来披露了一件史无前例的工作——一个 AI 代办署理向他的开源项目提交了代码改良，强调「无论是出于疏忽仍是恶意，协做文化和信赖系统的底子挑和。这不是人类操控 AI 的恶意行为！现正在曾经是 Python 数据科学生态（和 NumPy、Pandas 搭配）的根本组件之一，用于建立各类静态、动态和交互式的图表。OpenClaw 代办署理基于名为「SOUL.md」的文件定义本人的「性格」，而是贡献仍需要判断、布景和细心。这个听起来荒唐的场景。